玩耍Devops Git+Gogs+Jenkins+Docker

发表于 | | 阅读次数

最近受人熏陶，准备尝试一下自己搭建一套自己的Devops，故此记录一番。 🥕

首先，我们要了解Devops（Development和Operations），可以理解为是一个完整的面向IT运维的工作流，以 IT 自动化以及CI,CD为基础，来优化程式开发、测试、系统运维等所有环节。其中持续集成（Continuous integration，简称CI），指的是频繁地（一天多次）将代码集成到主干。而CD，这个概念就容易引起混淆了，因为CD这个缩写代表了两个短语，一个是Continuous Delivery，一个是Continuous Deployment，两者的区别就是，部署到生产环境这一步骤，是手工的，还是自动的。

详细的可以看持续集成是什么？。

当我们大概了解Devops之后，会发现互联网软件的开发和发布是一套相对繁琐的流程，而我们可以通过诸多工具，来进行简化，方便操作，达到让产品可以快速迭代，同时还能保持高质量。

PS：文章有点长，记录了整个环境的搭建的细节，以及踩的坑，用的服务器是Centos6.5，如果有什么问题，欢迎拍砖讨论。

Git+Gogs

git 大家早已耳熟能详，而gogs是基于Go语言的自助Git服务,图形化界面跟github非常相似。

一般要搭建自己的git仓库，现在的选择大多都是Gitlab或者Gogs。两者分别有各自的优势，考虑自己可怜的服务器配置，毫无疑问我的选择会是更加轻量的Gogs。

Git

Git一般大家的服务器都会已经安装，可以通过 git --version 查看。如果版本过低，最好升级下，我原先是1.7.*的版本的，后来出现了点问题。

下载

cd到自己服务器存放包的路径下，执行以下命令

1
wget https://github.com/git/git/archive/v2.3.0.zip
解压

因为下载的是个zip包，unzip v2.3.0 -d git 进行解压

编译安装

进入git目录，将其安装在“/usr/local/git”目录下,命令如下：

1
2
make prefix=/usr/local/git all
sudo make prefix=/usr/local/git install

之后编辑/etc/profile此文件,在最下边添加git的路径：export PATH=/usr/local/git/bin:$PATH

运行source /etc/profile

最后检验git --version

Gogs

下载

Gogs 在Github是开源的，可以在Gogs版本下载地址 下载自己需要的版本。我下载的是最新版本v0.11.29的linux_amd64.tar.gz。

解压
1
$ tar -xzvf linux_amd64.tar.gz
安装

进入到刚刚解压后的目录执行命令./gogs web
然后在浏览器输入http://ip:3000
会出现如下图片：Gogs配置图片
根据实际情况配置即可。配置后就可以使用了，可以注册自己的帐号，操作跟Github如出一辙。

经过一番折腾后，silk's Gogs

这样就完成了第一步，搭建Git+Gogs。
PS：后台运行命令

1
nohup ./gogs web > nohup.out 2>&1 &

以及官方文档的版本升级

Jenkins

安装Jenkins

安装完Git和Gogs之后,接下来就是我们的主角jenkins了。jenkins安装比较简单，
执行命令方可完成。

1
yum install jenkins

安装之后启动：

1
service jenkins start

如果需要修改端口，路径在/etc/sysconfig/jenkins，修改JENKINS_PORT="your_port"。重启jenkins服务。

进入的界面如下，表示启动成功

jenkis成功登录

PS:首次登录，是没有右边的任务，那是我已经添加了的。

Jenkins 插件

登录都OK之后，就需要为jenkins下载插件了。

因为我们是通过git去拉取代码，需要安装，一般是自带了，如果没有就安装一下，非常简便。

jenkis插件

其中Gogs plugin也需要安装，后续的hook会用到。还要安装Pipeline，这个是持续交付的重头戏，以及Publish Over SSH 这个是用来远程部署的。

Jenkins 配置

配置只需要按照自己的服务器的实际情况填写，配置的地方为系统管理->Global Tool Configuration

Jdk

jdk

Git

git

Maven

maven

如果还没安装maven，就下载放到服务器。我用的是apache-maven-3.3.9-bin.tar.gz

解压后 在/etc/profile中添加

1
2
export M2_HOME=/software/apache-maven-3.3.9
export PATH=$PATH:$JAVA_HOME/bin:$M2_HOME/bin

基本配置就差不多了，建议注册帐号，提高安全性也方便后续操作。

我的Configure Global Security是这样配置的，这个按照自己的需要，如果像我这样配置，就需要登录帐号。
Configure Global Security

创建Job

前面的操作都完成之后，点击My views –> 新建

新建job

Maven project

先记录使用maven实现，输入项目名称，选择maven项目按钮。

源码管理选择git，填写自己gogs的URL。例如我的video项目。

gogs-video

对应填写相关参数：
maven-project1

构建触发器，就是什么时候执行jenkins的自动化部署，选择第一个，其他的基本是定时执行什么的，有兴趣都可以去尝试一下

maven-project2

Build和Post Steps设置:

maven-project3

Execute shell 脚本(带了注解，放入配置的时候可以把注释去掉)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
#!/bin/bash

export JAVA_HOME=/usr/local/jdk1.8.0_73
#export BUILD_ID=dontKillMe这一句很重要，因为该job启动完后执行下一job,jenkins直接把tomcat进程杀了
export BUILD_ID=dontKillMe

project=video-0.0.1.jar
#jenkins的路径
file_path=/var/lib/jenkins/workspace/video/target

sleep 3s 
# 查看服务是否已经启动，启动了就先kill
pid=$(lsof -i:9000 |awk '{print $2}' | tail -n 1)

if [ "$pid" != "" ] 
echo "close old video"
then
echo $pid
kill -9 $pid
fi

echo "begin new video"

cd $file_path
# springboot 后台部署方式
java -jar ${project} &

邮件设置：

maven-project4

设置完成后，点击保存。跳转到新的页面，点击页面上的立即构造就会开始运行了。

maven-project5

运行的时候可以点击console Output查看日志。

等到小太阳出现，查看下自己的项目，已经启动了，那就大功搞成拉~ 如果很悲剧的出现问题了，那可以看看下面的踩坑记录中的东西能不能帮到你了~

maven-project6

pipeline

pipeline是jenkins2.0的一大亮点，在新建任务的时候选择Pipeline。

pipeline设置：
pipeline

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
node {  

    stage('checkout'){
        echo 'checkout from git'
        git url: 'http://114.215.122.158:3000/silk_gogs/video.git', branch: 'master'
    }
    stage('Test') {            
        echo "Test start..."
        sh 'mvn clean '
    }        
    stage('Build') {            
        echo "Deploy start..."
        sh ' mvn package -Dmaven.test.skip=true'
        sh ' sh /root/video-pipeline.sh'
        
    }
}

pipeline 采用的是Groovy语法，

  1. Stage：表示当前进行的阶段，名字可以随意去，如：git、build、test、build等
  2. Node:后面接一个小括号和一个大括号，小括号指定节点的名字或标签（缺省时随机选择节点），大括号表示在该节点运行的内容
  3. Step:像git、echo、sh、archiveArtifacts等这些指令，一个指令就是一个step

Groovy脚本中调用的shell脚本,跟maven项目的差不多。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
#!/bin/bash

export JAVA_HOME=/usr/local/jdk1.8.0_73
export BUILD_ID=dontKillMe

project=video-0.0.1.jar
file_path=/var/lib/jenkins/workspace/video-pipeline/target

sleep 3s 

pid=$(lsof -i:9000 |awk '{print $2}' | tail -n 1)

if [ "$pid" != "" ] 
then
echo "close old video"
echo $pid
kill -9 $pid
fi

echo "begin new video:$file_path/${project}"

nohup java -jar $file_path/${project} > nohup.out  2>&1 &

echo "end ^.^"

点击立即构造：
pipeline

跟maven project不同的是多了许多的Stage块，非常直观，而且支持复杂的CD(Continuous Delivery)需求,还有许多有趣的点等有时间再去玩耍。

Gogs plugin

之前在安装插件的时候，特意安装了Gogs plugin，这个插件是干嘛的呢？我们之前的操作都是通过手动触发的，这个插件可以帮我们实现代码的push操作触发（还有其他的hook事件），点击这个插件进去可以看到

Gogs plugin

很明显的告诉我们，只需要在gogs的项目中配置webhook

Gogs hook

这样就可以实现代码push就触发整个流程了。

Docker

待整理出来补充~

踩坑记录

Maven JVM terminated unexpectedly with exit code 137

遇到这个问题，原因是我的服务器配置比较差，jenkins还是吃配置的。选择一个比较好的服务器，就可以省去这个问题，如果跟我一样，服务器不太好的话。

解决的方法:

  1. 在/etc/profile 中添加export _JAVA_OPTIONS="-Xmx500m" -Xmx是jvm的最大堆大小，默认值为物理内存的1/4,这边可以根据情况手动调大。

  2. 执行Linux释放内存命令 

    1
    2
    sync   #把内存数据同步到硬盘（有需要可以执行）
    echo 3 > /proc/sys/vm/drop_caches  #删除内存缓存。

  3. 分出swap。 在linux中输入命令

    1
    2
    3
    4
    swapon -s #確認目前的swap大小
    dd if=/dev/zero of=/swapfile bs=1024 count=1048576 #增加1G的空间
    mkswap /swapfile  #格式化swapfile
    swapon /swapfile  #启动swapfile

最后输入free -m，查看内存及swap情况
free -m

这样一顿操作，八九不离十就能解决137的问题了，因为也很难找到比我服务器更差的机器了…

权限问题

日志中出现 XXXXX permission denied。

如果是运行调用到其他文件，权限不够，可以chown -R jenkins /xxx/xxx,最好的是设置用户组，这样的话比较简单粗暴。

但是我是maven install出来的jar包 没有权限运行，这不是坑我么。本来想在sh脚本中切到root用户的，尝试了几种方法都未果，于是就用了粗暴的方式…

直接修改/etc/sysconfig/jenkins 中的JENKINS_USER="root" ，再修改下权限

1
2
3
chown -R root:root /var/lib/jenkins
chown -R root:root /var/cache/jenkins
chown -R root:root /var/log/jenkins

最后记得修改后重启下jenkins

command not found

我们在项目中的日志报错，出现XXX command not found，但是服务器中明明已经是有相应的软件。这时候我们需要，在服务器中输入echo $PATH

将一长段环境变量复制到配置中，就OK了
环境变量配置

项目无法后台运行

出现这个问题的时候，jenkins 的job显示是success的，但是查看自己的服务器，对应的项目死活起不来。经过一番google，在jenkins的官网中找到了答案。
jenkins-ProcessTreeKiller,大概的意思就是说jenkins的特性会杀掉在任务中运行的生成的进程。To reliably kill processes spawned by a job during a build 就是这句话。

那我们只需要关掉这个特性就可以了，同样修改/etc/sysconfig/jenkins 中的JENKINS_JAVA_OPTIONS="-Djava.awt.headless=true -Dhudson.util.ProcessTree.disable=true" 记得修改后重启下jenkins

罗里吧嗦了一堆，希望大家也都能顺利搭建起来~

Github 不要吝啬你的star ^.^
更多精彩 戳我

Follow me on GitHub